맹목적 행동의 문제점

복잡한 논리 문제를 해결하거나 여러 정보를 조회할 때, AI가 즉시 Action을 결정하도록 강제하면 치명적인 오류가 발생할 수 있습니다.

사람이 퍼즐을 맞추는 방식을 생각해 보세요:

• 사람은 무작위로 조각을 집어 보드에 끼워 맞추지 않습니다.
• 머릿속으로 또는 말로 전략을 세웁니다: "먼저 테두리용 평평한 가장자리 조각을 찾아야 하고, 그다음에 이 파란 조각이 맞는지 확인할 거야."

마찬가지로, AI에게 추론 단계를 건너뛰고 오직 Action만 출력하도록 지시하면, AI는 "맹목적으로 행동"하게 됩니다. 질문에 답하기 위한 전제 조건을 파악하지 못했기 때문에 추측하거나, 환각(hallucination)을 일으키거나, 전혀 잘못된 도구를 선택하는 경우가 많습니다.